В РФ научили нейросеть распознавать критику религиозных взглядов
Классификатор в 89% случаев угадал неуместные высказывания
Российские исследователи обучили нейросеть находить «чувствительные» текстовые сообщения чат-ботов – например, с критикой религиозных взглядов, сообщает ТАСС-Наука.
Результаты работы опубликованы в сборнике Proceedings of the 8th Workshop on Balto-Slavic Natural Language Processing, кратко об этом пишет пресс-служба Сколковского института науки и технологий.
«Мы продемонстрировали, что, хотя чувствительность темы и неуместность сообщения – довольно тонкие понятия, завязанные на человеческой интуиции, они тем не менее поддаются детектированию нейросетями. В частности, наш классификатор в 89% случаев угадал, какие высказывания являются неуместными, по версии респондентов», – рассказал один авторов работы Николай Бабаков.
Понятие чувствительной темы в исследовании служит основой для определения неуместных высказываний. Авторы исследования сформировали список из 18 чувствительных тем, в числе которых религия, политика, сексуальные меньшинства, порнография и преступления.
Для обучения нейросетей обнаружению чувствительных тем и неуместных сообщений ученые исследования сформировали два корпуса текстов. На первом этапе носителям русского языка предложили опознать высказывания на чувствительные темы (и конкретную тему каждого) среди прочих сообщений.
На втором этапе ученые показывали не произвольные сообщения, а примеры из корпуса чувствительных тем: респондент должен был ответить на вопрос, навредит ли оно репутации отправителя. По итогам второго опроса был сформирован корпус неуместных сообщений, на котором исследователи обучили новую модель распознавать такие сообщения.
Иллюстрация: MarTech
Читайте также:
В алгоритмах поисковиков религия и политика “зависят” от региона
Почему митрополит Иларион не будет судиться с Instagram*
Instagram* заблокировал аккаунт митрополита Илариона
Instagram* ужесточает мониторинг языка ненависти
Эксперт назвала шесть опасных тем в соцсетях
В ЕС обяжут соцсети удалять пропаганду террора в течение часа
Блогер Хованский задержан и признался в оправдании терроризма
Соцсети: за оправдание терроризма задержан также блогер Нифедов
Проект в Думе: соцсети должны будут блокировать оскорбительный контент
